Sau khi lên ngôi, Giản Văn Đế ngay lập tức phải đối phó với việc Hoàn Ôn nghi ngờ anh trai của mình là Ngũ Lĩnh vương Tư Mã Hi (司馬晞), người này có quan tâm đến các vấn đề quân sự và nó khiến cho Hoàn Ôn nghĩ rằng ông ta đang chống đối mình. Hoàn Ôn do đó cáo buộc Tư Mã Hi âm mưu phản nghịch, Giản Văn Đế đã đồng ý loại bỏ Tư Mã Hi khỏi vị trí của ông ta. Tuy nhiên, sau đó Hoàn Ôn đã làm ra bằng chứng chống lại Tư Mã Hi và thỉnh rằng cần phải xử tử. Giản Văn Đế viết thư cho Hoàn Ôn, nói rằng ông không muốn giết anh trai mình và nếu ông bị buộc phải làm điều đó, ông sẽ nhường lại ngôi báu. Hoàn Ôn không sẵn sàng mạo hiểm cho một cuộc đối đầu nên đã giáng Tư Mã Hi và các con trai thành thường dân và đưa đi lưu đày.

Vào mùa hè năm 372, Giản Văn Đế lâm bệnh, ông nhiều lần cố triệu tập Hoàn Ôn về kinh, có lẽ để chỉ định Hoàn Ôn kế thừa ngôi vị song Hoàn Ôn lo ngại rằng đó là một cái bẫy nên liên tục từ chối. Giản Văn Đế đã qua đời không lâu sau đó, kế vị ông là người con trai Tư Mã Diệu mới 10 tuổi, người được lập làm thái tử ngay trước khi ông qua đời. Hoàn Ôn cũng mất vào đầu năm 373, mối lo ngại về việc Hoàn Ôn tiếm quyền tiêu tan, Đông Tấn tiếp tục tồn tại trong vài thập kỷ sau đó.